home *** CD-ROM | disk | FTP | other *** search
/ Total Network Tools 2002 / NextStepPublishing-TotalNetworkTools2002-Win95.iso / Archive / Misc Servers / Zope.exe / GLOBBINGLEXICON.PY < prev    next >
Encoding:
Python Source  |  2000-08-23  |  8.8 KB  |  281 lines
  1. ##############################################################################
  2. # 
  3. # Zope Public License (ZPL) Version 1.0
  4. # -------------------------------------
  5. # 
  6. # Copyright (c) Digital Creations.  All rights reserved.
  7. # 
  8. # This license has been certified as Open Source(tm).
  9. # 
  10. # Redistribution and use in source and binary forms, with or without
  11. # modification, are permitted provided that the following conditions are
  12. # met:
  13. # 
  14. # 1. Redistributions in source code must retain the above copyright
  15. #    notice, this list of conditions, and the following disclaimer.
  16. # 
  17. # 2. Redistributions in binary form must reproduce the above copyright
  18. #    notice, this list of conditions, and the following disclaimer in
  19. #    the documentation and/or other materials provided with the
  20. #    distribution.
  21. # 
  22. # 3. Digital Creations requests that attribution be given to Zope
  23. #    in any manner possible. Zope includes a "Powered by Zope"
  24. #    button that is installed by default. While it is not a license
  25. #    violation to remove this button, it is requested that the
  26. #    attribution remain. A significant investment has been put
  27. #    into Zope, and this effort will continue if the Zope community
  28. #    continues to grow. This is one way to assure that growth.
  29. # 
  30. # 4. All advertising materials and documentation mentioning
  31. #    features derived from or use of this software must display
  32. #    the following acknowledgement:
  33. # 
  34. #      "This product includes software developed by Digital Creations
  35. #      for use in the Z Object Publishing Environment
  36. #      (http://www.zope.org/)."
  37. # 
  38. #    In the event that the product being advertised includes an
  39. #    intact Zope distribution (with copyright and license included)
  40. #    then this clause is waived.
  41. # 
  42. # 5. Names associated with Zope or Digital Creations must not be used to
  43. #    endorse or promote products derived from this software without
  44. #    prior written permission from Digital Creations.
  45. # 
  46. # 6. Modified redistributions of any form whatsoever must retain
  47. #    the following acknowledgment:
  48. # 
  49. #      "This product includes software developed by Digital Creations
  50. #      for use in the Z Object Publishing Environment
  51. #      (http://www.zope.org/)."
  52. # 
  53. #    Intact (re-)distributions of any official Zope release do not
  54. #    require an external acknowledgement.
  55. # 
  56. # 7. Modifications are encouraged but must be packaged separately as
  57. #    patches to official Zope releases.  Distributions that do not
  58. #    clearly separate the patches from the original work must be clearly
  59. #    labeled as unofficial distributions.  Modifications which do not
  60. #    carry the name Zope may be packaged in any form, as long as they
  61. #    conform to all of the clauses above.
  62. # 
  63. # 
  64. # Disclaimer
  65. # 
  66. #   THIS SOFTWARE IS PROVIDED BY DIGITAL CREATIONS ``AS IS'' AND ANY
  67. #   EXPRESSED OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  68. #   IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR
  69. #   PURPOSE ARE DISCLAIMED.  IN NO EVENT SHALL DIGITAL CREATIONS OR ITS
  70. #   CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
  71. #   SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
  72. #   LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF
  73. #   USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND
  74. #   ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY,
  75. #   OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT
  76. #   OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
  77. #   SUCH DAMAGE.
  78. # 
  79. # 
  80. # This software consists of contributions made by Digital Creations and
  81. # many individuals on behalf of Digital Creations.  Specific
  82. # attributions are listed in the accompanying credits file.
  83. # 
  84. ##############################################################################
  85.  
  86. import string, regex, ts_regex
  87. import regsub
  88.  
  89. from Lexicon import Lexicon
  90.  
  91.  
  92. __doc__=""" Lexicon object that supports 
  93.  
  94. """
  95.  
  96. from Splitter import Splitter
  97. from Persistence import Persistent
  98. from Acquisition import Implicit
  99. import OIBTree, BTree, IOBTree
  100. from intSet import intSet
  101. OIBTree=OIBTree.BTree
  102. OOBTree=BTree.BTree
  103. IOBTree=IOBTree.BTree
  104. import re
  105.  
  106. from UnTextIndex import Or
  107.  
  108. class GlobbingLexicon(Lexicon):
  109.     """
  110.  
  111.     Base class to support globbing lexicon object.
  112.     """
  113.  
  114.     multi_wc = '*'
  115.     single_wc = '?'
  116.     eow = '$'
  117.  
  118.     def __init__(self):
  119.  
  120.         self.counter = 0
  121.         self._lexicon = OIBTree()
  122.         self._inverseLex = IOBTree()
  123.         self._digrams = OOBTree()
  124.  
  125.     def set(self, word):
  126.         """  """
  127.  
  128.         if self._lexicon.has_key(word):
  129.             return self._lexicon[word]
  130.  
  131.         else:
  132.             word = intern(word)
  133.             self._lexicon[word] = self.counter
  134.             self._inverseLex[self.counter] = word
  135.  
  136.             ## now, split the word into digrams and insert references
  137.             ## to 'word' into the digram object.  The first and last
  138.             ## digrams in the list are specially marked with $ to
  139.             ## indicate the beginning and end of the word
  140.  
  141.             digrams = []
  142.             digrams.append(self.eow + word[0]) # mark the beginning
  143.  
  144.             for i in range(len(word)):
  145.                 digrams.append(word[i:i+2])
  146.  
  147.             digrams[-1] = digrams[-1] + self.eow  # mark the end
  148.  
  149.             _digrams = self._digrams
  150.             
  151.             for digram in digrams:
  152.                 set = _digrams.get(digram)
  153.                 if set is None:
  154.                     _digrams[digram] = set = intSet()
  155.                     
  156.                 set.insert(self.counter)
  157.  
  158.             self._digrams = _digrams
  159.             counter = self.counter
  160.             self.counter = self.counter + 1
  161.             return counter
  162.  
  163.  
  164.     def get(self, pattern):
  165.         """ Query the lexicon for words matching a pattern.
  166.  
  167.         """
  168.  
  169.         wc_set = [self.multi_wc, self.single_wc]
  170.         digrams = []
  171.         for i in range(len(pattern)):
  172.  
  173.             if pattern[i] in wc_set:
  174.                 continue
  175.  
  176.             if i == 0:
  177.                 digrams.insert(i, (self.eow + pattern[i]) )
  178.                 digrams.append((pattern[i] + pattern[i+1]))
  179.             else:
  180.                 try:
  181.                     if pattern[i+1] not in wc_set:
  182.                         digrams.append( pattern[i] + pattern[i+1] )
  183.  
  184.                 except IndexError:
  185.                     digrams.append( (pattern[i] + self.eow) )
  186.  
  187.  
  188.  
  189.         ## now get all of the intsets that contain the result digrams
  190.  
  191.         result = None
  192.         for digram in digrams:
  193.             if self._digrams.has_key(digram):
  194.                 set = self._digrams[digram]
  195.                 if set is not None:
  196.                     if result is None:
  197.                         result = set
  198.                     else:
  199.                         result.intersection(set)
  200.  
  201.         if result is None:
  202.             return ()
  203.         else:
  204.             ## now we have narrowed the list of possible candidates
  205.             ## down to those words which contain digrams.  However,
  206.             ## some words may have been returned that match digrams,
  207.             ## but do not match 'pattern'.  This is because some words
  208.             ## may contain all matching digrams, but in the wrong
  209.             ## order.
  210.  
  211.             expr = re.compile(self.translate(pattern))
  212.             words = []
  213.             hits = []
  214.             for x in result:
  215.                 if expr.search(self._inverseLex[x]):
  216.                     hits.append(x)
  217.  
  218.             return hits
  219.                 
  220.     def __getitem__(self, word):
  221.         """ """
  222.         return self.get(word)
  223.  
  224.     def query_hook(self, q):
  225.         """expand wildcards
  226.  
  227.         """
  228.         words = []
  229.         for w in q:
  230.             if ( (self.multi_wc in w) or
  231.                 (self.single_wc in w) ):
  232.                 wids = self.get(w)
  233.                 for wid in wids:
  234.                     if words:
  235.                         words.append(Or)
  236.                     words.append(self._inverseLex[wid])
  237.             else:
  238.                 words.append(w)
  239.  
  240.         return words
  241.  
  242.     def Splitter(self, astring, words=None):
  243.         """ wrap the splitter """
  244.  
  245.         ## don't do anything, less efficient but there's not much
  246.         ## sense in stemming a globbing lexicon.
  247.  
  248.         return Splitter(astring)
  249.  
  250.  
  251.     def translate(self, pat):
  252.         """Translate a PATTERN to a regular expression.
  253.  
  254.         There is no way to quote meta-characters.
  255.         """
  256.  
  257.         i, n = 0, len(pat)
  258.         res = ''
  259.         while i < n:
  260.             c = pat[i]
  261.             i = i+1
  262.             if c == self.multi_wc:
  263.                 res = res + '.*'
  264.             elif c == self.single_wc:
  265.                 res = res + '.'
  266.             else:
  267.                 res = res + re.escape(c)
  268.         return res + "$"
  269.  
  270.  
  271.  
  272.  
  273.  
  274.  
  275.  
  276.  
  277.  
  278.  
  279.  
  280.  
  281.